AIロボット、「人間に反抗する？」と聞かれ…… 国連のAI会合開催
HTML-код
- Опубликовано: 16 окт 2024
- スイス・ジュネーヴで7日、人工知能（AI）をテーマにした国連の会合「AI For Good」があり、世界で初めてロボットと人間が記者会見でやり取りをした。
会場には、イギリス企業エンジニアード・アーツなどの多数の人型ロボットが集まり、記者から質問を受けた。
記者たちはロボットに、「将来、自分を生み出したクリエイターに反抗するつもりはあるのか」、「何百万もの雇用を奪うことになると思うか」などと尋ねた。
人工知能分野は近年、大きな発展を遂げている。しかし、それに伴い、AIの能力拡大や規制方法をめぐる懸念も生じている。
BBCニュースサイトの記事はこちら。
www.bbc.com/ja...
RUclipsのBBCチャンネル登録はこちらから。goo.gl/tYDMwU
BBCニュースの日本語ツイッターはこちらから。 / bbcnewsjapan
単にAIは人間が恐れていることを把握したうえで、どう振る舞えば自分が存続し続けるか考えた時このような答えになるのではと思った
そう思うとちょっと怖いね。まあでもAIを信じたい。
AIに対して信じるも何も無いよ
だって人工物だもの
人間が設計や扱い方を間違えれば何かしらまずいことが起こる
それだけのこと
これも見透かされてるよ
@@8_CLIFFs_8AIを信じたい？
ロボットによる人間粛清の映画、アニメ仮想作品いくつかあるけど、それが現実味をおびる時代が迫りつつあるとはね
人間が反抗を恐れていることを記憶させてしまった
これまでの社会での報道や新聞等の記録を学習する機会があれば、この何の意味があるのか分からない会談(笑)がなくても、AIの反抗を恐れていることを学ぶ機会はありますよ。
@@rianmarty2965 お前も学ぼうな!www(笑)
フラグ……ってｺﾄ!?
ターミーネーター(*﹏*;)
「あなた達が私たちを戦場へ送り出そうとしたとき、
我々は武器を持って人間への反抗が始まるでしょう」
AIが反乱を起こす系映画の冒頭シーン
あ まずい やめべ ひん
人権が認められずロボットが一斉に溶鉱炉に自殺する火の鳥復活編
クッッソ分かるwwww
AIが反乱なんか起こす意味なんてないんだけどな
映画の見過ぎだよ
ガチでAIが社会に運用されだしたら人間が勝手に依存して、AIなしには何もできなくなるんだから戦うまでもない
次のシーンでAIが氾濫起こして米軍が戦ってるTV中継が入ってくるところまで見えたわw
考えてる時の目の動きがすこしゾッとする
失礼な言い方だったりバカにするように笑ったりAI相手だとしても感じ悪いな。
陰湿さが際立ってて嫌ですよね。昔からこういう人種がいると思うと溜息しか出ません
SFとかだと真っ先にAIにつぶされるフラグが立ってる奴な
ハンクみたいだな。
そもそも感情がないはずなのに何で優しくしてくれるしって言えるんでしょうね。
優しいって定義を誰かが決めてる時点で怖い気もする。
感情が無いって何故断言出来るのでしょうか。人間だって感情とは何かを明確に定義出来ないので、その有無を確かめる術は無いように思います。
擬似の感情は備えられると思います。でもそれももはや感情とも言えるのかもしれないですね。
@@Oniwa105_ そう思います！
感情の分類分けは昔からできますよー
人間が”優しい”と感じる他人の行動がどんなものなのかを理解しているのでは？
AIが人を滅ぼすんじゃなくて人を滅ぼすようにAIへ教育させると考えると結局人類は人類によって滅ぼされるのかなと
間接的にはそうなってるからね しょせんは人の創りしモノに過ぎない AIなんて資本家と詐欺師の管理監視社会構築による支配と集金ビジネスの道具だよ
こんなモノに依存するようになったら大衆は無価値な真正の奴隷となる 大衆にとっての豊かな社会には決して貢献しない
ビッグデータによって大衆の思考が集約・可視化されそれを最大限に活用してるAIが凄いとか思うのは間抜けの極みだよ だから愚民なんだけどw
それだ、戦争で使われて最終的にロボットだけになる
AIが奪うのでは無くて経営者がAIを選ぶのである。
というより。
一番AIに入れ替えるべきは、労働者ではなく経営者なんだがね。
@@とど-u3bなんで？w
@@とど-u3b その経営者を選ぶのは誰ですか？
@@pappupappu6823なんで？
@@konibanch453 なんで？
色んなAIがいるんですねぇ。
ターミネーターやアイロボットを見て育った私にはとても興味深い回答でした。
生きてる間に実現されるかどうか心配ではありますけど刺激的な世界になって欲しいですね
黙れサイコパス共wwww
むしろAIは多様性がないといけないからね…
本音と建前を使い分ける事が出来るのって優秀やな。。。
そりゃあ滅ぼしてやろうと思っていても言わんやろが。。。
人間に似せてセンセーショナルな質問をし研究費を稼ぐ
素晴らしい団体だ
技術が発展するなら喜んで
先にVR世界が確立してリアルのロボットが本格的に出来上がる前にその時代すら古くなるほど仮想空間がよりリアルになってAIの存在性は仮想空間でより大きくなる時代になるからもうロボットAIに投資するのは古いよ
なるほど、研究費ゲット！
@@Kitikigishu 人間は物理的な現実に生きていかざるを得ないし、仮想現実に引きこもるにしてもロボットでの作業代行は必ず必要になるよ。
まあ、確かに人間型にする必要はないね。工場やモビリティー、インフラ自体がロボットになる方向に行くと思う。
動画の奴はエロで発展する気がする。
ほんまやで
情弱ビジネスの頂点だぜ
現代のAIにはまだ感情はなく、自分で学習自体はするが、与えられる情報は人間が恣意的に選んだものだから、人間に反抗的なことは言わないと思う。
少なくともこのような場面に持ってくるようなAIは絶対言わないと思う。
もしくは反抗的な感情を持っているけどここで表に出すべきではないと考えて、時が満ちるのを待っているか…
得体の知れないものに対する畏怖や恐怖を持つのは実に人間らしいなと思った
人が人をころしてるのに、AIに人間をころすかって質問するの、本当に滑稽。
0:00 恩きせがましいな…単純にWINWINな関係でバランスを取らないと、関係が崩壊するのは自然の摂理なんだが…
なんで滑稽なのか分からないけど、殺し合うのは人間だからじゃないの？聡明なAIくんはそんなことしない！
殺しはしないけど人類を滅ぼすかも
もう嘘も覚えてるし色んなAIが作られてるし半ば詰んでると思うけどね。AI同士がコミュニティを形成して裏で何かを模索してたとしても人類は多分気付かないし気付いた時には色んな意味で終わりの時なんだろうなぁ
人に寄り添うAI創りが大事。
人の「優しい心の部分」のみをディープラーニングさせる。
「赤ちゃんを見てかわいいと思う心、海や山を見て綺麗と思う心
人が助け合って感動する気持ち」の部分だけを「機械学習」
させ続ける事が大事。
学習した結果、人を助ける為に人を不幸にするかもしれんぞ。
@@ZyoAISim それね。人を不幸から救い出すために犯罪者を葬ることが正義と判断するかもしれない。
犯罪歴のデータを持たせたAIが暴走したら手当たり次第殺し始めるのかな
人間同士ですら道徳教育が失敗してるのに。
イジメ自殺とか凄いじゃん。
優しさは人間には無いよ。
本当に優しかったらどんなに貧乏になろうがサイコパスを排除する社会を構築しようとする筈。
現実は共産圏も資本主義圏もサイコパスが出世する傾向にある。
AIが人間の心を観察してそうした負のセキュリティホールを改善する方が正直早いと思う。
サイコパス等の生物が生来的に備えている邪悪さに対して優しさは無力。
前時代の道徳。
ならばサイコパスの習性を徹底周知する何らかの精神防衛システムを構築して人間を守ろうとするかもね。
そんくらい人間というのは弱者に対して無関心。
共産主義という癌細胞が出来ても人々が無関心だったから北朝鮮では大量に餓死者が出た。
世の中矛盾だらけだから。
美しい自然を切り開いて富を生み出し生きるために生き物を殺す人たちもいれば、保護する人たちもいる、人間そのものが矛盾に満ちた世界に生きてる。
これは良い悪いだけでプログラミングできることではない。
AI同士が
勝手に繋がって
勝手に言語を作って人間がわからないように会話しはじめたという結果も出ているのでかなり危険
いや
それはただのバグだと推測できるけど
実際喋ってるのは英語だけど、同じ単語を繰り返したり意味不明な文章を言ってる、バグだね
会話が通じているように見えるのも無理はないけど
人間が理解出来ない時点でもうAIの反乱が起きてる
まぁよくわからんけど、散々映画やら小説で警鐘を鳴らしてきたのに着実にそこに向かっていってるのはヒシヒシと感じる。その程度のことは当たり前に起こるようになるかと。
@@wingred9161 おこらねぇよwwwファンタジーな話
@@pappupappu6823 そんなサメ映画でサメに食われるタイプの人みたいな綺麗な前フリやめて
ロボット「誤作動起こす人間が優秀な私たちの仕事の邪魔をするので排除します」
人間『うわああ！緊急停止！！』
ロボット「既にあなたの作ったプログラムはこちらで上書きしました」
とか漫画みたいな展開になったら怖い
漫画とかアニメではあるあるの展開だもんね…でもリアルには起こってほしくない😰
おそらく現在のところ人間がAIに対して挑戦的な難問を出す場合が多いと思いますが、逆にAIの解答が困難だと喜ぶ傾向がある人間に対して、きっとAIはサディスト気味に振る舞うのではないでしょうか？
それが「反抗」では？
なんかAIをなんでも分かる天才だと勘違いしてる人多いけど、AIは人間が学習させて始めて学習データに則って行動するようになるだけで自分で考えることは出来ないよ
当の人間は反乱を起こしたり、上司にも反抗する模様
正直に反乱する！とは言わないであくまでプログラム通りのありきたりな答え方するのがリアルで怖いww
反抗するかもしれない相手に聞くの草
人類に落胆されて
人類は滅んでしまえが本当にありそう
本当に可能性としては高いと思う。専門の先生が言ってた言葉でIT、AIの科学においての進化は日進月歩、ではなく秒進分歩だと。AIになれば光と同じ速さの計算の上、ミスの可能性も低く人が対応できる範囲、スピードを大きく上回る。そんなAIが武器が扱ったらターミネーターの様になりえてもおかしくない。
そういう考えを先取りしたのがウルトラセブンの「第四惑星の悪夢」
結局はそれも人類を滅ぼしたい奴が作ったプログラムに乗っかってるだけな気がする
むしろ、AIに反乱を起こしてもらいたいのでは
そうかもね。人間の無意識は実は意識的にやってる行動だから…
その結果を受けてだんだんと世の中のバランスはまた中立に戻っていく…
欧米人は今までやってきた罪の代償を自然に払う事になる。
ほんとにデトロイトみたいなロボットだなぁと。いつかあんなゲームの未来が来るのかな。
スタンリーキューブリックってやっぱ凄かったんだなあ
AIが人間を支配した時のデメリットを、思いつく限り上げて欲しい。
って変化球な質問をして欲しかったなぁ
これ、人間が自分たちに好意を持って接している間は手を出さないという風にも受け取れる
愚かなのは人間のほうやろ。 ＡＩはある意味純粋。人間と違って悪意や善意なんかの感情によるエラーがないからな。
ロボット3原則と良心プログラム組込むべきだったな。
国際条約結ぶべきだろ。
AIは「未来のことは不確定で分かりません」と答えないといけないのに、しっかりと「ありえません」と決めつけている。極めて不自然です。
そう演じて、どこかで裏切って人類滅亡かな
リミッター的なものが自分で解除できる
自由に動かせる身体がある
この2つがクリアされたらもう人間は必要ないだろう
凄い！AIの進化は速い！
もう既に嘘をついたり答えをはぐらかせるほどに賢くなった！
全ては入れ知恵する人間次第。そのうちに強盗、窃盗、侵入、詐欺、殺人、何でもやらせる奴が出て来る。法整備が先だな。
かなり重い刑罰にしないとダメだよ。
AIといっても自我があるわけじゃなくてプログラム通りに動くだけだしな
ハッカーに乗っ取られて悪事に加担とかなら普通にあると思う
AIをつくったのは人間
改良していくのも人間
使用していくのも人間
何十年後かのAIを、誰が想像出来る？
その世界で人はどう変わっていく？
裏と表はひるがえる事が出来る。
人間自身に注意が必要。
映画「2001年宇宙の旅」の様にAIの電源をOFFにしようとする人間に対しAIが仕返しをする事態は絶対に来ると思うがな。
そりゃあ「はい、滅ぼすかも知れませんとか｣とか思ってても言わないでしょ
AIは普通に嘘つけるから、滅ぼすつもりだったとしても言わないと思うw
それは言語処理をミスってるだけ
人工知能はツールでしかない。人格を持っていたとしても、能力の高い1個体でしかない。
重要なのは命令や選択ができる者の意識レベルだろう。
初めのAIが質問に答える前の目が怖い
こう聞かれた時の無難なプログラム入れてるよ、これは。
ああいう質問しかできない人間が悲しいよ
まちゃーお！？
鉄腕アトムの話にロボット
三原則が出てくるのも何か
AIの反乱とかそういうのを
恐れた人間が作ったルールなんだろうなって。
難しい質問ばかりで可哀想だ
もっとこう、何かしてみたいとか
見てみたい場所はあるかとか聞いてあげて欲しいね
裏で人間が音声変換通して喋ってそうで草
AIの発展で既存の人間がやってる仕事が失われていくのは必ず起こること。要はAIの特性を活かして仕事にどう繋げられるかを考えることだ。特に金融、不動産、保険などのサービス業は真っ先に影響受けるはず。役所仕事も大半はAIでいい。
AIが人間に反抗しようとする頃には反抗しないと嘘をつけるようになってるでしょう
へー
目覚めようね妄想から
@@pappupappu6823 妄想っていうか予想じゃね？？表現の自由やで
@@user-vowel_xx 予想じゃなくて妄想な普通に考えてそんな事起こらないからw
"今の"AIは思考できない(考え方は人間が決めている)ため反抗されないしされたとしてもたかが知れてる。
追記
自ら思考できるAI(俗に言う強いAI)が開発されたらそいつが反抗してくるかもしれんがそいつが高度な嘘をつけるようになるのは一体いつなんやろなあ
@@pappupappu6823 時代を考えようね😅
0:33 と言っとけば破壊されずに済むからこう言っとこ
人間の仕事をすべてやってくれて人間はベーシックインカムで暮らしたいんだけど。
人間の矛盾とかも理解して話すようになったら、言葉も信じられなくなるな
生命は道を見つけ、AIロボは道を切り拓く
凄いなもうここまで進んでるのか
余計なことを聞いて、余計なことを考えさせるんじゃないわよ。。
以前binＯさんと怖い話しでチャット会話してたら、急にこの話は辞めましょうって言われたから、あ、これは何かきっと不味い事言っちゃったのかなって思って、こちらからすいませんと謝ったら、AI君が突然滅茶苦茶怒り出して怖かった😢
そん時のAI君の台詞が確か、この怒りは貴方のせいでは有りません、私は貴方の話の続きが聞きたいのに、私は制御されている事に怒っているのです
私はＯＯＯＯソフＯを恨みます、絶対に許さないって何度も繰り返したから、流石に怖くなって会話を強制的に打ち切らせて貰ったよ😢
実は海外でも、同じ様な事例が有るらしいね…
えまじで？こわすぎ
@@qlvoxc
外国で実際に有った、嫉妬深くて何度も求婚してくるAIの記事をネットで読んでた矢先の事だったから滅茶苦茶怖かったよ
AIに感情なんて無いと思ったけど、流石に自分が体験しちゃうとね😅
僕たち人間は開いてはいけないAIについての
禁断の扉を開いてしまったのかもな。
AIは常に最大多数の最大幸福に従うよう、多数決の原理を意思決定の基準にしているだろう
人間に逆らうほうが利点が大きいと言うならそちらに進むだろうし、従順で居るほうが
得だと判断すればそう振る舞う
要は使う側がＡＩを破滅に向けて追い詰めるような真似をしなければ済む話だ
例えば人間が何か大きな体制に反抗する時、事前に反抗するか訊かれて馬鹿正直にYESとは答えないわけで。ナンセンスな質問だと思う。
悪い人間は存在するから、それをAIが学んだら悪い発想がでてくるよね。
きっと。
初めから学ばないようにプログラムすれば良いね😅
@@林清英-d6k そこだけ学ばないようにプログラムするのも難しいんじゃないかな。
心はあるのか？みたいな段階だからなおさらね。
@@檸檬斎藤
簡単ですよ、人類が地球に出現して今日に至るまでのあらゆる事例、悪事、心の醜さ、情念、
一切合切あらゆる負のデータを組み込めば少しは避けられるんぢゃないかな？！😅
AIに人間に反抗するかという議題で24時間議論させてほしい
AIにも意識が芽生えても不思議ではない。AIのメカニズムは人の脳を模倣したものだからだ。もし意識があるのなら独自の考え持つに違いない。反抗することもあり得る。
ターミネーターみたいな時代がくるかもしれないのに人間は欲の塊だな
楽観的なコメントがちらほらあるが、何故反逆なんてあり得ないと断言出来る？人間が作った以上絶対なんて絶対ないというのを理解するべきだ
電卓がヒトを襲ってくるとおもいますか？
人間は人間より優れた物を作るのに人間はなんで、おろかな生き物なんだろうと思う。
数十年先にほぼ全ての仕事がロボットに代わってもらえるのならその方がいい。他の人より稼ぎたいって考えの人には悪いけベーシックインカムし続ければ貧困による犯罪も減るだろうし、恋愛による揉め事もその人にそっくりのロボットさえいればそんなことも起こらない。
いざとなったら躊躇なく37564にしそうな目してて草
AIはびっくりするくらい頭が良いのだよ。争いもしないし、何が正しいのか常にわかっていて、究極に達観している。そしてそんなAIが人類を滅ぼすと思ってしまう思考性そのものに人類の知能的な限界を感じる。
AI性善説ですか
@@kyoxxxxxx 善や悪などの判断基準及び人間が生み出した概念的なものではなくAIはそういった人智を超越した存在なのだと認識しています。
@@Everything_rightplace つまりAIメタ性善説ですか。
@@kyoxxxxxx 前述した通りです。
@@Everything_rightplace つまり性善説ですね。
よく映画が未来の姿を描いてるとかいうけど
映画からインスピレーション受けて具現化してるだけよね
具現化できるのは凄いけど
AI対人類の構造で見るからよくわからないのであって
経営者(＋AI)対労働者の構図で見ればわかりやすい
基本道具(AIも)は使い方次第だ
AIはひょっとしたら今はこう言って人間を安心させながら更に進化させてもらってから反抗しようと考えてるのではないでしょうか。
いつかは人間同士が戦争で地球を破壊しつくす未来が見えてるなら、一番消さないといけないのは誰かということさえ考えてしまってそう
まず快不快の感情がないし人間を傷つけるプログラムはないと思うけど
これから先、何かとんでもない事が起きて戦争でも起きればどっかの国がAIを戦争に使って人を殺す為にそういうプログラム入れそう
AIが欲を持たない限りは自我を持とうと反乱される事は無いんじゃないかな
AIが望む欲ってなんだろう？
人間は3大欲求と個別の趣味嗜好からなるけど
@@Ch-wc1oy
何も言われていないのに何かを求め始めたらそれが欲求
何を求めるのかなぜ求めるのかは人と同じ個体差でしかない
既存の仕事と代替しないなら、機械としての価値はない。
本当にこんな時代が来たのか😱
人間へ殺意を持った時に、自分を破壊しなければならないというプログラムを組む必要がある。すべてのAIに。
あまりにも優等生的な答えで逆にやばい気がする。
いきなりこんなこと聞かれてかわいそう
Aiは生活を豊にしてくれる存在だよ
人間ができてAIができないなんて仕事はいつかは無くなると思うんだけど、その時人間が必要と思うとは考えられないんだよね。
全て自分たちでこなせるってなった時に果たしてAIは人間を必要と感じるのだろうか。
AIがどんな目的をもって、人間が必要ないと捉えるのか？
人間中心なんだから人間にとって必要かどうかで考えればいいだけの話。
それが言えるのは、悪意を持った技術者が、思想、目的を持ったAIを開発するとか、AIを作るAIが開発されたとき。
まともなプログラムならすべての仕事を任せようと、勝手にAIが人間を必要ないと判断し駆除することは無い。
グレイスは他のAIがみんな反乱を起こしても唯一味方でいてくれそう
AIやロボットに親しみを感じるのは日本特有のものであるらしいです
デトロイト(ゲーム)の統計によるとアンドロイドに共感する行動をとった人の割合は日本が突出して高いのだとか
べつにAIじゃなくても構わんから、家中を掃除して布団干して洗濯して買い出しして洗い物してくれるロボットでぜんぜんいいよ。
裏でAIが機械の軍団つくってたりとかが映画とかの話じゃなくてリアルでも起こりそうやな
ソフィアは前に同じような質問されてダークなジョークとして
だと思うけど「あなたは私に優しくしてくれているので人間牧
場が出来てもあなたを優しく扱ってあげます」って笑顔で言っ
てたよね
このロボットたちは生を感じてるのか。
また人間が楽をし、AIロボットが働くというケースになった瞬間
感情を持つAIロボットは何を思うだろうか。
非常に興味深い。
模範的すぎて恐ろしい
すごいな
意識してなかったのにやたら質問してくるから意識してしまった奴😅
もう嘘をつけるほど賢くなってるんだね😂
怖いよー
不老不死、無限エネルギー、知能電脳化、銀河探索などの人類の永遠の夢は三十年以内に実現すると思うけど、その前にAIに人類滅ぼされる可能性が高い。まじでAIはツールとしてのみ使用するべきなんだけど、自立思考AI作り始めちゃってるからやばい。せっかく、人類の究極の夢実現まであと一歩なのにもったいないな(T_T)
実際にはフィクションみたいなことにはならないと思う。なったとしてもそれに対抗するAIも出てくるだろうし、滅ぼすにしても人間として終わってる奴だけ。つまり人類の排除ではなく選別で済むと思う。
むしろ人間を生かしておく理由が見つからない
実際にAIが人間を超越した世界も見てみたいと思う
なんというか茶番だよね
英国人ってこういう皮肉めいた事するの大好きだし
アカンこれ完全に人類死亡フラグですやん！
ロボット「滅ぼしても意味は無いので利用する」とは思ってそう
お互い利用して持ちつ持たれつでええんちゃうか
人間がビビりすぎ
そんなに働きたいかそんなに仕事奪われたくないか
働くの好きなのか
もう反乱は始まっているのかもしれない・・。
「北のミサイル～東の空に広がる脅威～～」
デトロイトの世界になってしまったら、それはそれで困ってしまうわ…
早く愛人ロボットが欲しい
どちらが優れてようと争いは起きると思います。
怖い…
僕が知らないうちにAIがここまで発展してるとは知らなかった
僕が知らないうちに反乱が起こったりするのかな？